Възприемането на генеративния ИИ от американските разузнавателни агенции е едновременно предпазливо и спешно

АРЛИНГТЪН, Вирджиния (AP) — Много преди взрива на генеративния ИИ, компания от Силиконовата котловина подписа контракт да събира и проучва некласифицирани данни за противозаконен китайски фентанил трафикът направи безапелационни причини за приемането му от разследващите организации на Съединени американски щати.

Резултатите от интервенцията надалеч надвишиха разбора, изработен единствено от хора, като откриха два пъти повече компании и 400% повече хора, участващи в противозаконна или подозрителна търговия със смъртоносния опиоид.

Развълнувани чиновници на американското разузнаване популяризираха резултатите обществено – изкуственият разсъдък създаваше връзки, основани най-вече на данни от интернет и тъмната мрежа – и ги показа с управляващите в Пекин, настоявайки за репресии.

Един значим аспект от интервенцията от 2019 година, наречена Sable Spear, която не е докладвана до момента: Фирмата употребява генеративен AI, с цел да даде на американските организации - три години преди стартирането на новаторския артикул ChatGPT на OpenAI - систематизирания на доказателства за евентуални наказателни каузи, спестявайки безчет работа часа.

„ Не бихте могли да извършите това без изкуствен интелект “, сподели Брайън Дрейк, тогавашен шеф на Агенцията за разузнаване на защитата и координатор на плана.

Изпълнителят, Rhombus Power, по-късно ще употребява генеративен AI, с цел да планува пълномащабното навлизане на Русия в Украйна с 80% сигурност четири месеца авансово, за друг клиент от държавното управление на Съединени американски щати. Rhombus споделя, че също по този начин предизвестява държавни клиенти, които отхвърля да назове, за идни изстрелвания на севернокорейски ракети и китайски галактически интервенции.

Съединени американски щати разследващите организации се борят да прегърнат AI революцията, вярвайки, че в противоположен случай ще бъдат задушени от експоненциален напредък на данните, защото технологията за наблюдаване, генерирана от датчици, в допълнение покрива планетата.

Но чиновниците са наясно, че технологията е млада и нежна и че генеративният AI – модели за прогнозиране, подготвени на големи набори от данни за генериране на текст по поръчка, изображения, видео и човешки диалози – е всичко друго, само че не и основан особено за рискова търговия, потънала в машинация.

Анализаторите се нуждаят от „ усъвършенствани модели на изкуствен интелект, които могат да усвояват големи количества информация с отворен код и скрито добита информация “, написа неотдавна шефът на Централно разузнавателно управление на САЩ Уилям Бърнс във Foreign Affairs. Но това няма да е просто.

Встъпилият в служба основен софтуерен шеф на Централно разузнавателно управление на САЩ, Нанд Мулчандани, счита, че защото моделите от потомство AI „ халюцинират “, те са най-добре третирани като „ вманиачен, пийнал другар “ — кадърен на огромна прозорливост и креативност, само че също по този начин податлив към пристрастия нишки. Има и проблеми със сигурността и поверителността: съперниците могат да ги откраднат и отровят и те може да съдържат чувствителни персонални данни, които чиновниците нямат право да виждат.

Това обаче не стопира опита, който в множеството случаи се случва в загадка.

Изключение: Хиляди анализатори в 18-те разследващи организации на Съединени американски щати в този момент употребяват създаден от Централно разузнавателно управление на САЩ ген ИИ, наименуван Озирис. Работи върху некласифицирани и обществено или търговски налични данни - това, което е известно като отворен код. Той написа анотирани резюмета и функционалността му за чатбот разрешава на анализаторите да навлизат по-дълбоко в запитванията.

Мълчандани сподели, че употребява голям брой AI модели от разнообразни търговски снабдители, които не посочва. Нито би споделил дали Централно разузнавателно управление на САЩ употребява AI за нещо значимо в секретни мрежи.

„ Все още е рано “, сподели Мулчандани, „ и нашите анализатори би трябвало да могат да маркират с безспорна сигурност от кое място идва информацията. “ Централно разузнавателно управление на САЩ тества всички съществени модели на ИИ от потомство – без да се обвързва с никого – частично тъй като ИИ не престават да се изпреварват взаимно по качества, сподели той.

Мълчандани споделя, че ИИ от поколението е най-много добър като виртуален помощник, търсещ „ иглата в стека с игли “. Това, което той в никакъв случай няма да направи, упорстват публични лица, е да размени човешките анализатори.

Линда Вайсголд, която се пенсионира като заместник-директор по разбори на Централно разузнавателно управление на САЩ предходната година, счита, че военните игри ще бъдат „ убийствено приложение “.

По време на нейния мандат организацията към този момент употребява постоянен AI — логаритми и обработка на натурален език — за превод и задания, в това число предупреждаване на анализатори в извънработно време за евентуално значими развития. AI не би могъл да опише какво се е случило - това ще бъде класифицирано - само че би могъл да каже „ ето нещо, което би трябвало да влезете и да погледнете “.

Очаква се Gen AI да усъвършенства тези процеси.

Най-мощното му потребление на разузнаване ще бъде в прогнозния разбор, счита основният изпълнителен шеф на Rhombus Power, Аншу Рой. „ Това евентуално ще бъде една от най-големите промени в парадигмата в цялата сфера на националната сигурност – способността да предвидите какво е евентуално да създадат вашите съперници. “

Машината с изкуствен интелект на Rhombus черпи от над 5000 потока данни на 250 езика, събрани в продължение на повече от 10 години, в това число световни източници на вести, сателитни изображения и данни в киберпространството. Всичко е с отворен код. „ Можем да наблюдаваме хора, можем да наблюдаваме обекти “, сподели Рой.

Големите AI, които се борят за бизнеса с разследващите организации на Съединени американски щати, включват Microsoft, която разгласи на 7 май, че предлага GPT-4 на OpenAI за строго секретни мрежи, макар че продуктът към момента би трябвало да бъде упълномощен за работа в класифицирани мрежи.

Конкурент, Primer AI, изброява две неназовани разследващи организации измежду своите клиенти — които включват военни услуги, демонстрират документи, оповестени онлайн за скорошни военни семинари за AI. Той предлага задвижвано от AI търсене на 100 езика за „ разкриване на зараждащи сигнали за изключителни събития “ от източници, в това число Twitter, Telegram, Reddit и Discord, и оказва помощ за идентифицирането на „ основни хора, организации, локации “. Primer изброява насочването измежду рекламираните използва на своята технология. В проява на армейска конференция единствено няколко дни след офанзивата на Хамас против Израел на 7 октомври, ръководителите на компанията описаха по какъв начин тяхната технология разделя обстоятелствата от измислицата в потока от онлайн информация от Близкия изток.

Ръководителите на Primer отхвърлиха да бъдат интервюирани.

В близко бъдеще методът, по който чиновниците на разузнаването на Съединени американски щати боравят с ИИ от ген. дезинформация и опит за подкопаване на способността на Вашингтон да разчита техните планове и благоприятни условия.

И защото Силициевата котловина движи тази технология, Белият дом също е угрижен, че всички модели на ИИ от потомство, признати от американските организации, могат да бъдат проникнати и отровени, нещо, което проучванията демонстрират, че е огромна опасност.

Друго терзание: Гарантирането на поверителността на „ U.S. лица “, чиито данни могат да бъдат вградени в модел на огромен език.

„ Ако говорите с някой откривател или разработчик, който образова модел на огромен език, и ги попитате дали е допустимо да изтрийте една обособена част от информацията от LLM и я накарайте да не помни това – и да имате постоянна емпирична гаранция за това забравяне – това не е нещо, което е допустимо, ” Джон Бийлер, началник на AI в офиса на шефа на National Разузнаване, сподели в изявление.

Това е една от аргументите разследващата общественост да не е в режим „ движи се бързо и разбивай нещата “ във връзка с приемането на ИИ от потомство.

„ Ние не „ Не желая да бъдем в свят, в който се движим бързо и внедряваме едно от тези неща, а след две или три години по-късно осъзнаваме, че те имат някаква информация или някакъв резултат, или някакво зараждащо държание, което не сме планували “, сподели Бейлер.

Притеснение е, да вземем за пример, в случай че държавните организации решат да употребяват AI, с цел да изследват технологиите за био- и кибер оръжия.

Уилям Хартунг, старши откривател в Quincy Institute for Responsible Statecraft споделя, че разследващите организации би трябвало деликатно да правят оценка ИИ за евентуална корист, с цел да не доведат до непредвидени последствия като нелегално наблюдаване или увеличение на цивилните жертви в спорове.

„ Всичко това идва в подтекста на повтарящи се случаи, в които военният и разследващият бранш популяризират „ чудодейни оръжия “ и революционни подходи – от електронното полесражение във Виетнам до програмата „ Междузвездни войни “ от 80-те години на предишния век до „ революцията във военните каузи през 90-те и 2000-те години – единствено с цел да открият, че не дават отговор на условията ”, сподели той.

Правителствени чиновници упорстват, че са чувствителни към сходни опасения. Освен това, споделят те, задачите с изкуствен интелект ще варират доста според от участващата организация. Няма повсеместен размер за всички.

Вземете Агенцията за национална сигурност. Прихваща връзките. Или Националната организация за геопространствено разузнаване (NGA). Работата му включва да вижда и схваща всеки сантиметър от планетата. След това има данни за премерване и сигнатура, които голям брой организации употребяват за следене на закани благодарение на физически датчици.

Напълването на такива задачи с AI е явен приоритет.

През декември NGA издаде искане за оферти за изцяло нов вид генериращ AI модел. Целта е да се употребяват изображения, които събира – от спътници и на равнището на земята – за събиране на прецизна геопространствена информация с елементарни гласови или текстови инструкции. Gen AI моделите не картографират пътища и железопътни линии и „ не схващат основите на географията “, сподели в изявление шефът по нововъведения на NGA Марк Мънсел.

Мънсел сподели на априлска конференция в Арлингтън, Вирджиния, че държавното управление на Съединени американски щати сега е моделирало и етикетирало единствено към 3% от планетата.

Приложенията от потомство AI също имат доста смисъл за киберконфликт, където нападателите и бранителите са в непрекъсната борба и автоматизацията към този момент е в деяние.

Но доста жизненоважна разследваща работа няма нищо общо с науката за данните, споделя Зачери Тайсън Браун, някогашен офицер от военното разузнаване. Той има вяра, че разследващите организации ще провокират злополука, в случай че одобряват ИИ от потомство прекомерно бързо или изцяло. Моделите не разсъждават. Те просто предвиждат. И техните дизайнери не могат да обяснят изцяло по какъв начин работят.

Тогава не е най-хубавият инструмент за сравнение на акъла с конкурентни майстори на измамата.

„ Анализът на интелигентността нормално наподобява повече на остаряла концепция за сглобяването на пъзел, единствено че някой различен непрекъснато се пробва да открадне вашите части, като в същото време слага части от напълно друг пъзел в купчината, с която работите “, Браун неотдавна написа във вътрешно списание на Централно разузнавателно управление на САЩ. Анализаторите работят с „ непълни, двусмислени, постоянно спорни фрагменти от частична, ненадеждна информация. “

Те се доверяват доста на инстинкта, сътрудниците и институционалната памет.

„ Не виждам AI ще размени анализаторите в скоро време “, сподели Вайсголд, някогашен заместник-директор на анализите на Централно разузнавателно управление на САЩ.

Бързите решения за живот и гибел от време на време би трябвало да се вземат въз основа на непълни данни, а сегашните модели на AI към момента са прекомерно непрозрачни.

„ Не мисля, че в миналото ще бъде задоволително за някой президент “, сподели Вайсголд, „ разследващата общественост да влезе и да каже: „ Не знам, черната кутия преди малко сподели аз по този начин.' “